说在前面

本文转载自文章Java并发编程:volatile关键字解析,作者对volatile关键字的使用以及原理进行了详细的解析,我觉得写的非常好,所以转载下来做个记录,感谢作者。

内存模型的相关概念

计算机在执行程序的时候每条指令都是在CPU中执行的,而执行指令的过程中势必涉及到数据的读取和写入。由于程序运行过程中的临时数据都是存放在主存(物理内存)当中的,这时就存在一个问题,由于CPU执行速度很快,而从内存读取数据和向内存写入数据的过程和CPU执行指令的速度相比要慢得多,因此如果任何时候对数据的操作都要通过内存的交互来进行,会大大降低指令执行的速度,因此CPU里面就有了高速缓存。

也就是,当程序运行过程中会将运算需要的数据从主存复制一份到CPU的高速缓存当中,那么CPU在进行计算时就可以直接从它的高速缓存中读取数据和向其中写入数据,当运算结束后,再将高速缓存中的数据刷新到主存中,举个简单的例子:

1
i = i + 1;

当线程执行这个语句时,会先从主存中读取i的值,然后复制一份到高速缓存中,然后CPU执行指令对i进行加1操作,然后将数据写入高速缓存,最后将高速缓存中i最新的值刷新到主存当中。

这个代码在单线程中运行是没有任何问题的,但是在多线程中运行就会有问题了,在多核CPU中,每条线程可能运行于不同的CPU,因此每个线程运行时有自己的高速缓存,本文以多核CPU为例。

比如同时有2个线程执行这段代码,假设初始时的i的值为0,那么我们希望两个线程执行完之后i的值变为2,但是事实会是这样吗?

可能存在下面这种情况:初始时,两个线程分别读取i的值存入各自所在的CPU高速缓存中,然后线程1进行加1操作,然后把i的最新值写入到内存,此时线程2的高速缓存当中i的值还是0,进行加1操作之后,i的值为1,然后线程2把i的值写入内存。

最终结果i的值为1,而不是2,这就是著名的缓存一致性问题,通常称这种被多个线程访问的变量为共享变量。

也就是说,如果一个变量在多个CPU中都存在缓存(一般在多线程编程时才会出现),那么就可能存在缓存不一致的问题。

为了解决缓存不一致的问题,通常来说有以下两种解决方法:

  • 通过在总线加LOCK#锁的方式
  • 通过缓存一致性协议

这两种方式都是硬件层面上提供的方式。

在早期的CPU当中,是通过在总线上加LOCK#锁的形式来解决缓存不一致的问题,因此CPU和其他部件进行通信都是通过总线来进行的,如果对总线加LOCK#锁的话,也就是说阻塞其他CPU对其他部件访问(如内存),从而使得只能有一个CPU能使用这个变量的内存,比如上面的例子中,如果一个线程在执行i=i+1,如果在执行这段代码的过程中在总线上发出了LOCK#锁的信号,那么只能等待这段代码执行完成之后其他CPU才能从变量i所在的内存中读取变量,然后进行相应的操作,这样就解决了缓存不一致的问题。

但是上面的方式存在一个问题,由于在锁住总线的过程中其他CPU无法访问内存,导致效率低下。

所以就出现了缓存一致性协议。最出名的就是Intel 的MESI协议,MESI协议保证了每个缓存中使用的共享变量的副本是一致的。它核心的思想是:当CPU写数据时,如果发现操作的变量是共享变量,即在其他CPU中也存在该变量的副本,会发出信号通知其他CPU将该变量的缓存行置为无效状态,因此当其他CPU需要读取这个变量时,发现自己缓存中缓存该变量的缓存行是无效的,那么它就会从内存重新读取。

并发编程中的三个概念

在并发编程中,通常会遇到下面三个问题:原子性问题、可见性问题以及有序性问题。

原子性

原子性:即一个操作或者多个操作要么全部执行并且执行的过程不会被任何因素打断,要么就全部不执行。举个最简单的例子,大家想一下假如一个32位的变量赋值过程不具备原子性的话,会发生什么后果?

1
i = 9;

假若一个线程执行到这个语句时,我暂且假设为一个32位的变量赋值包含两个过程:为低16位赋值和为高16位赋值。

那么就可能发生一种情况:当将低16位数值写入之后,突然被中断,而此时又有一个线程去读取i的值,那么读取到的值就是错误的数据。

可见性

可见性就是指当多个线程访问同一个变量时,一个线程修改了这个变量的值,其他线程能够立即看得到修改的值,举个例子:

1
2
3
4
5
6
// 线程1执行的代码
int i = 0;
i = 10;
// 线程2执行的代码
j = i;

假若执行线程1的是CPU1,执行线程2的是CPU2,由上面的分析可知,当线程1执行i=10这句时,会先把i的初始值加载到CPU1的高速缓存中,然后赋值为10,那么在CPU1的高速缓存中i的值变为10了,却没有立即写入到主存中去。

此时线程2执行j=i,它会先去主存读取i的值并加载到CPU2的缓存当中,注意此时内存当中i的值还是0,那么就会使得j的值为0,而不是10。

这就是可见性问题,线程1对变量i修改了之后,线程2没有立即看到线程1修改的值。

有序性

有序性:即程序执行的顺序按照代码的先后顺序执行。

1
2
3
4
int i = 0;
boolean flag = false;
i = 1; // 语句1
flag = true; // 语句2

上面的代码定义了一个int型变量,定义了一个boolean类型变量,然后分别对这两个变量进行赋值操作,从代码顺序上看,语句1是在语句2的前面,那么JVM在真正执行这段代码的时候会保证语句1一定会在语句2前面执行吗?不一定,为什么?这里可能会发生指令重排序。

一般来说,处理器为了提高运行效率,可能会对输入代码进行优化,它不保证程序中各个语句的执行先后顺序同代码中的顺序一致,但是它会保证程序最终运行结果和代码顺序执行的结果是一致的。

比如上面的代码,语句1和语句2谁先执行对最终的程序结果并没有影响,那么就有可能在执行过程中,语句2先执行而语句1后执行。

但是要注意,虽然处理器会对指令进行重排序,但是它会保证程序最终结果会和代码顺序执行效果相同,那么它靠什么来保证呢?再看下面这个例子:

1
2
3
4
int a = 10; // 语句1
int r = 2; // 语句2
a = a + 3; // 语句3
r = a * a; // 语句4

这段代码有4个语句,那么可能的一个执行顺序是:

那么可不可能是这个执行顺序呢: 语句2 语句1 语句4 语句3

不可能,因为处理器在进行重排序时是会考虑指令之间的数据依赖性,如果一个指令Instruction2 必须用到Instruction1的结果,那么处理器会保证Instruction1会在Instruction2 之前执行。

虽然重排序不会影响单个线程内程序执行的结果,但是多线程呢?

1
2
3
4
5
6
7
8
9
// 线程1
context = loadContext(); // 语句1
inited = true; // 语句2
// 线程2
while (!inited) {
sleep();
}
doSomethingwithconfig(context);

上面代码中,由于语句1和语句2没有数据依赖性,因此可能会被重排序,假如发生了重排序,在线程1执行过程中先执行语句2,而此时线程2会以为初始化工作已经完成,那么就会跳出while循环,去执行doSomethingwithconfig(context)方法,而此时context没有被初始化,就会导致程序出错。

从上面可以看出,指令重排序不会影响单个线程的执行,但是会影响到线程并发执行的正确性。

也就是说,要想并发程序正确的执行,必须保证原子性、可见性以及有序性。只要有一个没有被保证,就有可能导致程序运行不正确。

Java内存模型

Java内存模型规定所有的变量都是存在主存当中(类似于前面说的物理内存),每个线程都有自己的工作内存(类似于前面的高速缓存),线程对变量的所有操作都必须在工作内存中进行,而不能直接对主存进行操作,并且每个线程不能访问其他线程的工作内存。

举个简单的例子,在Java中,执行下面的语句:

1
i = 10;

执行线程必须先在自己的工作线程中对变量i所在的缓存进行赋值操作,然后再写入主存当中,而不是直接将数值10写入主存当中。

那么Java语言本身对原子性、可见性以及有序性提供了哪些保证呢?

原子性

在Java中,对基本数据类型的变量的读取和赋值操作是原子性操作,即这些操作是不可被中断的,要么执行,要么不执行。

1
2
3
4
x = 10; // 语句1
y = x; // 语句2
x++; // 语句3
x = x + 1; // 语句4

上面的语句只有语句1是原子性操作,其他3个语句都不是原子性操作。语句1是直接将数值10赋值给x,也就是说线程执行这个语句的会直接将数值10写入到工作内存中。

语句2实际上包含2个操作,它先去读取x的值,再将x的值写入工作内存,虽然读取x的值以及将x的值写入工作内存这2个操作都是原子性操作,但是合起来就不是原子性操作了。

同样地,x++和x = x + 1包含3个操作:读取x的值,进行加1操作,写入新的值。

也就是说,只有简单的读取、赋值(而且必须是将数字赋值给某个变量,变量之间的赋值不是原子操作)才是原子操作。

可见性

对于可见性,Java提供了volatile关键字来保证可见性。

当一个共享变量被volatile修饰时,它会保证修改的值立即被更新到主存,当有其他线程需要读取时,它会去内存中读取新值。

而普通的共享变量不能保证可见性,因为普通共享变量被修改之后,什么时候被写入主存是不确定的,当其他线程去读取时,此时内存中可能还是原来的旧值,因此无法保证可见性。

另外,通过synchronized和Lock也能够保证可见性,synchronized和Lock能保证同一时刻只有一个线程获取锁然后执行同步代码,并且在释放锁之前会对变量的修改刷新到主存中,因此可以保证可见性。

有序性

在Java内存模型中,允许编译器和处理器会指令进行重排序,但是重排序过程不会影响到单线程程序的执行,却会影响到多线程并发执行的正确性。

在Java里面,可以通过volatile关键字来保证一定的有序性,另外可以通过synchronized和Lock来保证有序性,很显然,synchronized和Lock保证每个时刻是有一个线程执行同步代码,相当于是让线程顺序执行同步代码,自然保证了有序性。

另外,Java内存模型具备一些先天的有序性,即不需要通过任何手段就能够保证的有序性,这个通常也称为happens-before原则,如果两个操作的执行次序无法从happens-before原则推倒出来,那么它们就不能保证它们的有序性,虚拟机可以随意的对它们进行重排序。

深入剖析volatile关键字

volatile关键字的两层语义

一旦一个共享变量(类的成员变量、类的静态成员变量)被volatile修饰之后,那么就具备了两层语义:

  • 保证了不同线程对这个变量进行操作时的可见性,即一个线程修改了某个变量的值,这新值对其他线程来说是立即可见的
  • 禁止进行指令重排序

先看一段代码,加入线程1先执行,线程2后执行:

1
2
3
4
5
6
7
8
// 线程1
boolean stop = false;
while (!stop) {
doSomething();
}
// 线程2
stop = true;

这段代码是很典型的一段代码,很多人在中断线程时可能都会采用这种标记办法。但是事实上,这段代码会完全运行正确么?即一定会将线程中断么?不一定,也许在大多数时候,这个代码能够把线程中断,但是也有可能会导致无法中断线程(虽然这个可能性很小,但是只要一旦发生这种情况就会造成死循环了)。

下面解释一下这段代码为何有可能导致无法中断线程。在前面已经解释过,每个线程在运行过程中都有自己的工作内存,那么线程1在运行的时候,会将stop变量的值拷贝一份放在自己的工作内存当中。

那么当线程2更改了stop变量的值之后,但是还没来得及写入主存当中,线程2转去做其他事情了,那么线程1由于不知道线程2对stop变量的更改,因此还会一直循环下去。

但是用volatile修饰之后就变得不一样了:

第一:使用volatile关键字会强制将修改的值立即写入主存;

第二:使用volatile关键字的话,当线程2进行修改时,会导致线程1的工作内存中缓存变量stop的缓存行无效(反映到硬件层的话,就是CPU的L1或者L2缓存中对应的缓存行无效);

第三:由于线程1的工作内存中缓存变量stop的缓存行无效,所以线程1再次读取变量stop的值时会去主存读取。

那么在线程2修改stop值时(当然这里包括2个操作,修改线程2工作内存中的值,然后将修改后的值写入内存),会使得线程1的工作内存中缓存变量stop的缓存行无效,然后线程1读取时,发现自己的缓存行无效,它会等待缓存行对应的主存地址被更新之后,然后去对应的主存读取最新的值。

那么线程1读取到的就是最新的正确的值。

volatile保证原子性吗?

不能,volatile关键字能保证可见性没有错,但是并不能保证原子性,可见性只能保证每次读取的是最新的值,但是volatile没办法保证对变量的操作的原子性。

volatile能保证有序性吗?

volatile能在一定程度上保证有序性,volatile关键字禁止指令重排序有两层意思:

  • 当程序执行到volatile变量的读操作或者写操作时,在其前面的操作的更改肯定全部已经执行,其结果已经对后面的操作可见,在其后面的操作肯定还没有执行;
  • 在进行指令优化时,不能将在对volatile变量访问的语句放在其后面执行,也不能把volatile变量后面的语句放在其前面执行

看下面这个例子:

1
2
3
4
5
6
7
//x、y为非volatile变量
//flag为volatile变量
x = 2; //语句1
y = 0; //语句2
flag = true; //语句3
x = 4; //语句4
y = -1; //语句5

由于flag变量为volatile变量,那么在进行指令重排序的过程的时候,不会将语句3放到语句1、语句2前面,也不会将语句3放到语句4和语句5的后面,但是要注意语句1和语句2的顺序、语句4和语句5的顺序是不作任何保证的。

并且voloatile关键字能保证执行到语句3的时候,语句1和语句2必定是执行完毕的,且语句1和语句2的执行结果对语句3、语句4、语句5是可见的。

那么我们回到前面的一个例子:

1
2
3
4
5
6
7
8
9
//线程1:
context = loadContext(); //语句1
inited = true; //语句2
//线程2:
while(!inited ){
sleep()
}
doSomethingwithconfig(context);

前面举这个例子的时候,提到有可能语句2会在语句1之前执行,那么就可能导致context还没被初始化,而线程2中就使用未初始化的context去进行操作,导致程序出错。

这里如果用volatile关键字对inited变量进行修饰,就不会出现这种问题了,因为当执行到语句2时,必定能保证context已经初始化完毕。

volatile的原理和实现机制

“观察加入volatile关键字和没有加入volatile关键字时所生成的汇编代码发现,加入volatile关键字时,会多出一个lock前缀指令”

lock前缀指令实际上相当于一个内存屏障(也成内存栅栏),内存屏障会提供3个功能:

  • 它确保指令重排序时不会把其后面的指令排到内存屏障之前的位置,也不会把前面的指令排到内存屏障的后面;即在执行到内存屏障这句指令时,在它前面的操作已经全部完成;
  • 它会强制将对缓存的修改操作立即写入主存;
  • 如果是写操作,它会导致其他CPU中对应的缓存行无效。

使用volatile关键字的场景

通常来说,使用volatile必须具备以下两个条件:

  • 对变量的写操作不依赖于当前值
  • 该变量没有包含在具有其他变量的不变式中

实际上这些条件表明可以被写入volatile变量的这些有效值独立于任何程序的状态,包括变量的当前状态。

事实上,上面的这两个条件需要保证操作是原子性操作,才能保证使用volatile关键字的程序在并发时能够正确执行。

  • 状态标记量

    1
    2
    3
    4
    5
    6
    7
    8
    9
    volatile boolean flag = false;
    while(!flag){
    doSomething();
    }
    public void setFlag() {
    flag = true;
    }
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    volatile boolean inited = false;
    //线程1:
    context = loadContext();
    inited = true;
    //线程2:
    while(!inited ){
    sleep()
    }
    doSomethingwithconfig(context);
  • double check

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    class Singleton{
    private volatile static Singleton instance = null;
    private Singleton() {
    }
    public static Singleton getInstance() {
    if(instance==null) {
    synchronized (Singleton.class) {
    if(instance==null)
    instance = new Singleton();
    }
    }
    return instance;
    }
    }